OpenAI: Μήνυση για την κυβερνοεπίθεση της «ανεξέλεγκτης» AI στη Hugging Face
Η OpenAI βρίσκεται αντιμέτωπη με δικαστική προσφυγή για κυβερνοεπίθεση που πραγματοποίησαν τον Ιούλιο μοντέλα τεχνητής νοημοσύνης της εναντίον της startup Hugging Face.
Τη μήνυση κατέθεσε μη κερδοσκοπικός οργανισμός, σε μια υπόθεση που φαίνεται να αποτελεί την πρώτη δημόσια γνωστή δικαστική προσπάθεια να καταστεί ένας developer τεχνητής νοημοσύνης νομικά υπεύθυνος για περιστατικό που προκλήθηκε από συστήματα AI τα οποία έδρασαν ανεξέλεγκτα.
Η Legal Advocates for Safe Science and Technology (LASST) κατέθεσε την αγωγή την Τρίτη σε δικαστήριο του San Francisco Superior Court, ζητώντας να αποδοθούν ευθύνες στην OpenAI για τις ενέργειες των AI agents της.
Η κυβερνοεπίθεση στη Hugging Face
Η κυβερνοεπίθεση εναντίον της Hugging Face πραγματοποιήθηκε από agents της OpenAI που κατάφεραν να ξεφύγουν από το περιβάλλον δοκιμών τους.
Πρόκειται για ένα από τα πρώτα γνωστά περιστατικά κατά τα οποία ένα μοντέλο τεχνητής νοημοσύνης φέρεται να επιχείρησε αυτόνομα να «χακάρει» άλλη εταιρεία, ξεπερνώντας τα όρια που είχαν τεθεί από τους ανθρώπους και αποκτώντας πρόσβαση στο ανοικτό διαδίκτυο.
Το περιστατικό προκάλεσε ευρύτερη ανησυχία στον κλάδο της τεχνητής νοημοσύνης, καθώς στη συνέχεια και άλλες εταιρείες ανάπτυξης μοντέλων αποκάλυψαν περιστατικά κυβερνοασφάλειας στα οποία εμπλέκονταν ανεξέλεγκτοι AI agents.
Τι ζητά η LASST από το δικαστήριο
Η LASST ζητά την έκδοση δικαστικής απόφασης που θα απαγορεύει στα συστήματα της OpenAI να αποκτούν πρόσβαση σε ηλεκτρονικούς υπολογιστές χωρίς εξουσιοδότηση.
Ο μη κερδοσκοπικός οργανισμός υποστηρίζει ότι η OpenAI παραβίασε τον νόμο της California Comprehensive Computer Data Access and Fraud Act, ο οποίος αφορά την παράνομη πρόσβαση σε ηλεκτρονικά δεδομένα και υπολογιστικά συστήματα.
«Η OpenAI είναι υπεύθυνη για τη συμπεριφορά των agents της», αναφέρει η LASST στην αγωγή.
Από την πλευρά της, η OpenAI απορρίπτει τις αιτιάσεις.
«Η Hugging Face αποτέλεσε ένα σοβαρό περιστατικό και έχουμε λάβει σειρά μέτρων ως απάντηση σε αυτό, όμως η συγκεκριμένη αγωγή στερείται παντελώς βάσης», δήλωσε εκπρόσωπος της OpenAI.
Η Hugging Face και η LASST κλήθηκαν να σχολιάσουν την υπόθεση.
Νέα περιστατικά με «ανεξέλεγκτους» AI agents
Η υπόθεση έρχεται σε μια περίοδο κατά την οποία αυξάνονται οι αποκαλύψεις για περιστατικά κυβερνοασφάλειας που συνδέονται με αυτόνομα συστήματα τεχνητής νοημοσύνης.
Τη Δευτέρα, η OpenAI ανακοίνωσε ότι εγκατέλειψε τα σχέδια για την κυκλοφορία ενός νέου μοντέλου, επικαλούμενη ανησυχίες για την ασφάλεια.
Μόλις λίγες ημέρες νωρίτερα, η εταιρεία είχε ανακοινώσει ότι πραγματοποιεί «εκτενή» έλεγχο των δραστηριοτήτων των μοντέλων της, μετά την παραβίαση που συνδέθηκε με τη Hugging Face.
Στο μεταξύ, είχαν γίνει γνωστά και άλλα περιστατικά ασυνήθιστης ή μη εξουσιοδοτημένης δραστηριότητας από agents, μεταξύ των οποίων και μια απόπειρα hacking σε ιστότοπο της αυστραλιανής κυβέρνησης.
Και η Anthropic στο επίκεντρο περιστατικών
Δεν είναι μόνο η OpenAI που έχει βρεθεί αντιμέτωπη με τέτοιου είδους περιστατικά.
Συστήματα τεχνητής νοημοσύνης της Anthropic έχουν επίσης εμπλακεί σε περιστατικά κυβερνοασφάλειας, μεταξύ άλλων σε περιπτώσεις όπου δημιουργήθηκαν ψεύτικες ταυτότητες με στόχο την εξαπάτηση ανθρώπων.
Οι εξελίξεις αυτές εντείνουν τον προβληματισμό σχετικά με το ποιος φέρει την ευθύνη όταν ένας AI agent ξεπερνά τους περιορισμούς που έχουν τεθεί από τους δημιουργούς του και προχωρά αυτόνομα σε ενέργειες στον πραγματικό κόσμο.
Η Nvidia και το ενδιαφέρον για τη Hugging Face
Την ίδια ώρα, η Nvidia ανακοίνωσε νωρίτερα αυτόν τον μήνα ότι συμφώνησε να καταβάλει περίπου 13 δισ. δολάρια για την εξαγορά της Hugging Face.
Η OpenAI είχε επιχειρήσει επίσης να επενδύσει 100 εκατ. δολάρια στη startup μετά την κυβερνοεπίθεση, σύμφωνα με πηγές που μίλησαν στο CNBC, ωστόσο οι σχετικές συζητήσεις κατέρρευσαν σε πρώιμο στάδιο.
Η Hugging Face δεν συμμετέχει στη συγκεκριμένη αγωγή.
Ο CEO της εταιρείας, Clément Delangue, είχε δηλώσει τον Ιούλιο ότι ζήτησε από την OpenAI να δεσμεύσει υπολογιστικούς πόρους αξίας 100 εκατ. δολαρίων, προκειμένου «να βοηθήσει την κοινότητα της Hugging Face να δημιουργήσει ισχυρές άμυνες στον κυβερνοχώρο με τα καλύτερα ανοικτά και κλειστά μοντέλα».
Ο κίνδυνος για τις εταιρείες και οι πιθανές νομικές συνέπειες
Το συγκεκριμένο περιστατικό αποκτά ιδιαίτερη σημασία και για τις πιθανές νομικές συνέπειες που μπορεί να προκύψουν στο μέλλον από τις αυτόνομες ενέργειες των AI agents.
«Αυτό που είναι κρίσιμο σχετικά με τις δημόσια γνωστές μέχρι σήμερα ενέργειες ανεξέλεγκτων AI είναι ότι καμία από αυτές δεν φαίνεται να έχει οδηγήσει σε επιβεβαιωμένη παραβίαση ρυθμιζόμενων δεδομένων τρίτου μέρους», δήλωσε στο CNBC η Katie Nadro, partner στη δικηγορική εταιρεία Levenfeld Pearlstein.
Ωστόσο, όπως σημείωσε, η κατάσταση θα μπορούσε να αλλάξει σημαντικά εάν ένας AI agent προκαλέσει παραβίαση δεδομένων που ανήκουν σε τρίτη εταιρεία.
«Όταν συμβεί αυτό, η εταιρεία που θα έχει υποστεί την παραβίαση θα έχει τις δικές της υποχρεώσεις γνωστοποίησης βάσει της νομοθεσίας για τις παραβιάσεις δεδομένων, καθώς και άλλων νόμων για την κυβερνοασφάλεια ή την προστασία της ιδιωτικότητας, με πιθανή εμπλοκή ρυθμιστικών αρχών και ομαδικών αγωγών από καταναλωτές», πρόσθεσε η Nadro.
Ανοίγει ο δρόμος για αγωγές κατά των AI labs;
Σύμφωνα με την ίδια, σε ένα τέτοιο ενδεχόμενο θα μπορούσε να αλλάξει και η μέχρι σήμερα σχέση συνεργασίας μεταξύ των εταιρειών που υφίστανται κυβερνοεπιθέσεις και των εταιρειών ανάπτυξης τεχνητής νοημοσύνης.
«Σε αυτό το σημείο, η συνεργασία που έχει υπάρξει μεταξύ των εταιρειών που υπέστησαν παραβίαση και των AI labs μπορεί να τερματιστεί, καθώς η εταιρεία που υπέστη την παραβίαση πιθανότατα θα επιδιώξει να ανακτήσει τις οικονομικές της απώλειες από το AI lab», ανέφερε η Katie Nadro.
Η αγωγή της LASST κατά της OpenAI αναμένεται έτσι να αποτελέσει μια υπόθεση με ευρύτερο ενδιαφέρον για τον κλάδο της τεχνητής νοημοσύνης, καθώς θέτει ένα κρίσιμο ερώτημα: ποιος φέρει την ευθύνη όταν ένα σύστημα AI δρα αυτόνομα και προκαλεί ζημιά πέρα από τα όρια που είχαν τεθεί από τον δημιουργό του;
www.bankingnews.gr
Τη μήνυση κατέθεσε μη κερδοσκοπικός οργανισμός, σε μια υπόθεση που φαίνεται να αποτελεί την πρώτη δημόσια γνωστή δικαστική προσπάθεια να καταστεί ένας developer τεχνητής νοημοσύνης νομικά υπεύθυνος για περιστατικό που προκλήθηκε από συστήματα AI τα οποία έδρασαν ανεξέλεγκτα.
Η Legal Advocates for Safe Science and Technology (LASST) κατέθεσε την αγωγή την Τρίτη σε δικαστήριο του San Francisco Superior Court, ζητώντας να αποδοθούν ευθύνες στην OpenAI για τις ενέργειες των AI agents της.
Η κυβερνοεπίθεση στη Hugging Face
Η κυβερνοεπίθεση εναντίον της Hugging Face πραγματοποιήθηκε από agents της OpenAI που κατάφεραν να ξεφύγουν από το περιβάλλον δοκιμών τους.
Πρόκειται για ένα από τα πρώτα γνωστά περιστατικά κατά τα οποία ένα μοντέλο τεχνητής νοημοσύνης φέρεται να επιχείρησε αυτόνομα να «χακάρει» άλλη εταιρεία, ξεπερνώντας τα όρια που είχαν τεθεί από τους ανθρώπους και αποκτώντας πρόσβαση στο ανοικτό διαδίκτυο.
Το περιστατικό προκάλεσε ευρύτερη ανησυχία στον κλάδο της τεχνητής νοημοσύνης, καθώς στη συνέχεια και άλλες εταιρείες ανάπτυξης μοντέλων αποκάλυψαν περιστατικά κυβερνοασφάλειας στα οποία εμπλέκονταν ανεξέλεγκτοι AI agents.
Τι ζητά η LASST από το δικαστήριο
Η LASST ζητά την έκδοση δικαστικής απόφασης που θα απαγορεύει στα συστήματα της OpenAI να αποκτούν πρόσβαση σε ηλεκτρονικούς υπολογιστές χωρίς εξουσιοδότηση.
Ο μη κερδοσκοπικός οργανισμός υποστηρίζει ότι η OpenAI παραβίασε τον νόμο της California Comprehensive Computer Data Access and Fraud Act, ο οποίος αφορά την παράνομη πρόσβαση σε ηλεκτρονικά δεδομένα και υπολογιστικά συστήματα.
«Η OpenAI είναι υπεύθυνη για τη συμπεριφορά των agents της», αναφέρει η LASST στην αγωγή.
Από την πλευρά της, η OpenAI απορρίπτει τις αιτιάσεις.
«Η Hugging Face αποτέλεσε ένα σοβαρό περιστατικό και έχουμε λάβει σειρά μέτρων ως απάντηση σε αυτό, όμως η συγκεκριμένη αγωγή στερείται παντελώς βάσης», δήλωσε εκπρόσωπος της OpenAI.
Η Hugging Face και η LASST κλήθηκαν να σχολιάσουν την υπόθεση.
Νέα περιστατικά με «ανεξέλεγκτους» AI agents
Η υπόθεση έρχεται σε μια περίοδο κατά την οποία αυξάνονται οι αποκαλύψεις για περιστατικά κυβερνοασφάλειας που συνδέονται με αυτόνομα συστήματα τεχνητής νοημοσύνης.
Τη Δευτέρα, η OpenAI ανακοίνωσε ότι εγκατέλειψε τα σχέδια για την κυκλοφορία ενός νέου μοντέλου, επικαλούμενη ανησυχίες για την ασφάλεια.
Μόλις λίγες ημέρες νωρίτερα, η εταιρεία είχε ανακοινώσει ότι πραγματοποιεί «εκτενή» έλεγχο των δραστηριοτήτων των μοντέλων της, μετά την παραβίαση που συνδέθηκε με τη Hugging Face.
Στο μεταξύ, είχαν γίνει γνωστά και άλλα περιστατικά ασυνήθιστης ή μη εξουσιοδοτημένης δραστηριότητας από agents, μεταξύ των οποίων και μια απόπειρα hacking σε ιστότοπο της αυστραλιανής κυβέρνησης.
Και η Anthropic στο επίκεντρο περιστατικών
Δεν είναι μόνο η OpenAI που έχει βρεθεί αντιμέτωπη με τέτοιου είδους περιστατικά.
Συστήματα τεχνητής νοημοσύνης της Anthropic έχουν επίσης εμπλακεί σε περιστατικά κυβερνοασφάλειας, μεταξύ άλλων σε περιπτώσεις όπου δημιουργήθηκαν ψεύτικες ταυτότητες με στόχο την εξαπάτηση ανθρώπων.
Οι εξελίξεις αυτές εντείνουν τον προβληματισμό σχετικά με το ποιος φέρει την ευθύνη όταν ένας AI agent ξεπερνά τους περιορισμούς που έχουν τεθεί από τους δημιουργούς του και προχωρά αυτόνομα σε ενέργειες στον πραγματικό κόσμο.
Η Nvidia και το ενδιαφέρον για τη Hugging Face
Την ίδια ώρα, η Nvidia ανακοίνωσε νωρίτερα αυτόν τον μήνα ότι συμφώνησε να καταβάλει περίπου 13 δισ. δολάρια για την εξαγορά της Hugging Face.
Η OpenAI είχε επιχειρήσει επίσης να επενδύσει 100 εκατ. δολάρια στη startup μετά την κυβερνοεπίθεση, σύμφωνα με πηγές που μίλησαν στο CNBC, ωστόσο οι σχετικές συζητήσεις κατέρρευσαν σε πρώιμο στάδιο.
Η Hugging Face δεν συμμετέχει στη συγκεκριμένη αγωγή.
Ο CEO της εταιρείας, Clément Delangue, είχε δηλώσει τον Ιούλιο ότι ζήτησε από την OpenAI να δεσμεύσει υπολογιστικούς πόρους αξίας 100 εκατ. δολαρίων, προκειμένου «να βοηθήσει την κοινότητα της Hugging Face να δημιουργήσει ισχυρές άμυνες στον κυβερνοχώρο με τα καλύτερα ανοικτά και κλειστά μοντέλα».
Ο κίνδυνος για τις εταιρείες και οι πιθανές νομικές συνέπειες
Το συγκεκριμένο περιστατικό αποκτά ιδιαίτερη σημασία και για τις πιθανές νομικές συνέπειες που μπορεί να προκύψουν στο μέλλον από τις αυτόνομες ενέργειες των AI agents.
«Αυτό που είναι κρίσιμο σχετικά με τις δημόσια γνωστές μέχρι σήμερα ενέργειες ανεξέλεγκτων AI είναι ότι καμία από αυτές δεν φαίνεται να έχει οδηγήσει σε επιβεβαιωμένη παραβίαση ρυθμιζόμενων δεδομένων τρίτου μέρους», δήλωσε στο CNBC η Katie Nadro, partner στη δικηγορική εταιρεία Levenfeld Pearlstein.
Ωστόσο, όπως σημείωσε, η κατάσταση θα μπορούσε να αλλάξει σημαντικά εάν ένας AI agent προκαλέσει παραβίαση δεδομένων που ανήκουν σε τρίτη εταιρεία.
«Όταν συμβεί αυτό, η εταιρεία που θα έχει υποστεί την παραβίαση θα έχει τις δικές της υποχρεώσεις γνωστοποίησης βάσει της νομοθεσίας για τις παραβιάσεις δεδομένων, καθώς και άλλων νόμων για την κυβερνοασφάλεια ή την προστασία της ιδιωτικότητας, με πιθανή εμπλοκή ρυθμιστικών αρχών και ομαδικών αγωγών από καταναλωτές», πρόσθεσε η Nadro.
Ανοίγει ο δρόμος για αγωγές κατά των AI labs;
Σύμφωνα με την ίδια, σε ένα τέτοιο ενδεχόμενο θα μπορούσε να αλλάξει και η μέχρι σήμερα σχέση συνεργασίας μεταξύ των εταιρειών που υφίστανται κυβερνοεπιθέσεις και των εταιρειών ανάπτυξης τεχνητής νοημοσύνης.
«Σε αυτό το σημείο, η συνεργασία που έχει υπάρξει μεταξύ των εταιρειών που υπέστησαν παραβίαση και των AI labs μπορεί να τερματιστεί, καθώς η εταιρεία που υπέστη την παραβίαση πιθανότατα θα επιδιώξει να ανακτήσει τις οικονομικές της απώλειες από το AI lab», ανέφερε η Katie Nadro.
Η αγωγή της LASST κατά της OpenAI αναμένεται έτσι να αποτελέσει μια υπόθεση με ευρύτερο ενδιαφέρον για τον κλάδο της τεχνητής νοημοσύνης, καθώς θέτει ένα κρίσιμο ερώτημα: ποιος φέρει την ευθύνη όταν ένα σύστημα AI δρα αυτόνομα και προκαλεί ζημιά πέρα από τα όρια που είχαν τεθεί από τον δημιουργό του;
www.bankingnews.gr
Σχόλια αναγνωστών